AI Papers Daily

#mutual information

4 篇

Reversible Unlearnable Examples: Towards the Copyright Protection in Deep Learning Era

可逆不可学习样本：面向深度学习时代的版权保护

🧭 数据版权保护 · 不可学习扰动

通过互信息最小化生成不可学习扰动并解耦水印提取，同时防御非法模型训练与数据泄露

📌 工作参考价值（3 点）

• 业务可借鉴点有限，主要学术贡献，但数据扰动思路可迁移：对用户行为序列或 embeddings 添加微弱扰动，防止黑盒提取模型做未授权训练
• 双提取器解耦思想可应用于需要同时嵌入可逆水印与扰动防御的场景，如推荐结果中隐藏追踪标识且不影响正常服务
• 互信息最小化技巧可作为防御模型窃取的备选方案：在输出 logits 或中间表示上注入最小化互信息的噪声，降低攻击者模拟能力

Other | 2026-08-06 | cs.CV | score 6/10

unlearnable examplescopyright protectionwatermarkingmutual informationadversarial perturbations

Improving General Role-Playing Agents via Psychology-Grounded Reasoning and Role-Aware Policy Optimization

基于心理学推理与角色感知策略优化的通用角色扮演智能体

🧭 心理学引导推理与角色感知强化学习

Zhejiang University · Tencent Youtu Lab

提出心理学引导的CoT与基于互信息的策略优化，抑制奖励黑客，提升角色保真度。

📌 工作参考价值（4 点）

• 对话推理结构可复用：Psy-CoT 将回复前思考分解为交互感知、心理共情与逻辑构建三步，电商虚拟导购、客服机器人可借鉴该链式推理，生成更贴近用户心理、更具说服力的对话。
• 互信息梯度加权抑制奖励黑客：RAPO 用 profile–token 互信息不对称缩放梯度，放大角色相关 token 的正优势、衰减负优势，该技巧可迁移到任意 LLM 对齐任务（如推荐解释生成、广告文案优化），防止模型学得空洞通用回复而冲高奖励。
• 训练不稳定时的干预思路：当发现 LLM 奖励模型给出相同梯度信号导致性能退化，可引入类似 RAPO 的 token 级重要性加权，无需改变奖励模型，仅调整策略梯度，工程成本低。
• 多尺度模型验证：实验在多种模型规模上均超越 GRPO，证明该策略优化方法对基座能力不敏感，适合在推荐/对话系统实际部署中逐步升级基座模型。

Agent | 2026-06-25 | cs.CL | score 7/10

role-playing agentschain-of-thoughtreinforcement learningmutual informationpolicy optimizationreward hacking

Causal Representation Learning for Generalisable Recommendation

因果表征学习提升推荐系统分布外泛化：从信息解耦到线上A/B验证

🧭 因果表征学习 · 分布偏移优化 ★ 深度解读

University of Warwick · Spotify · University College London

提出互信息解耦准则去除表征中的非因果依赖，在Shopify线上A/B测试中显著提升用户参与度，而离线指标不起变化

📌 工作参考价值（4 点）

• 直接在标准排序损失上增加一个互信息惩罚项（通过梯度反转实现去相关），无需额外数据、不改推理架构，即可消除物品表征中的非因果泄露，适用于任何现有监督模型。
• 离线指标（如AUC）可能完全反映不出线上收益：论文三种场景下CRL模型在偏置训练集上离线指标与基线持平，但在随机曝光测试集和线上A/B中均显著胜出。建议多用随机曝光测试集或小流量线上实验评估分布外真实效果。
• 调参安全：理论表明存在“无损耗”区间，较小的惩罚权重λ即可去掉非因果信息，不损害预测效用；实践中可用NCE-CLUB上界监控互信息下降量。
• 工程落地简单：方法与具体模型解耦，无需干预数据或多环境分划，仅用现有观测日志训练，适合大规模推荐系统快速部署。

RecSys | 2026-05-26 | stat.ML | score 8/10

causal representation learningmutual informationdistribution shiftdebiasingA-B testrecommender systems

A Mutual Information Lower Bound for Multimodal Regression Active Learning

多模态回归主动学习的互信息下界采集函数

🧭 主动学习采集函数 · 不确定性分解

University of Pennsylvania

提出 MI-LB，分离认知与偶然不确定性，为多模态回归主动学习提供闭式互信息下界

📌 工作参考价值（4 点）

• 电商推荐中用户行为常呈多模态（如“浏览/购买/忽视”），采用混合密度网络(MDN)建模预测分布，代替单高斯输出，可更真实地捕捉不确定性。
• 主动选择标注样本时，用MI-LB作为采集函数，能可靠区分模型可减少的认知不确定性，优于方差或熵，特别适用于冷启动或在线学习场景。
• MI-LB对MDN集成提供闭式下界近似，工程实现直接，无需采样或数值积分，适合大规模推荐系统实时决策。
• 框架中的Two-Index分解思路可迁移至多臂老虎机或强化学习的探索：将认知指数作为抽象动作，驱动更高效的探索策略。

Other | 2026-05-14 | stat.ML | score 6/10

mutual informationactive learningregressionepistemic uncertaintymixture density networklower bound